"Tỉnh" trong tiếng Việt có nguồn gốc từ chữ Hán: 省. Trong lịch sử Trung Quốc, ban đầu "tỉnh" được dùng như một danh xưng để chỉ các cơ quan hành chính trực thuộc triều đình như "thượng thư tỉnh", "trung thư tỉnh"... Đến đời Nguyên, chính thức hình thành "hành trung thư tỉnh", gọi tắt là "hành tỉnh", đến đời Thanh thì giản lược thành "tỉnh", dùng để chỉ đơn vị hành chính như ngày nay.

Tại Việt Nam, "tỉnh" được dùng như thuật ngữ chỉ đơn vị hành chính tại Việt Nam chỉ bắt đầu sau cuộc cải cách hành chính của Minh Mạng 1831-1832. Trừ một thời gian ngắn tại Nam Kỳ, khi chính quyền thực dân Pháp bãi bỏ đơn vị hành chính cấp tỉnh (nhưng sau đó tái lập), trải qua nhiều thời kỳ lịch sử, tỉnh luôn giữ vai trò là đơn vị hành chính cấp 1 tại Việt Nam.

Thuật ngữ "tỉnh" thường được xem là tương đồng khi chuyển ngữ cho từ "province" trong tiếng Anh. Từ này xuất phát từ "provincia" (số nhiều "provinciae") trong tiếng Latin, có nguồn gốc từ thời La Mã cổ đại, dùng để chỉ một đơn vị hành chính là lãnh thổ thuộc địa của La Mã nằm ngoài lãnh thổ Italia. Điều này dẫn đến việc tại một số quốc gia không có đơn vị hành chính "province" trên thực tế, thuật ngữ "the provinces" vẫn được dùng, nhưng với ý nghĩa "bên ngoài thủ đô".